Từ lâu, Himmler đã có ý kèn cựa với Cục Quân báo của Bộ Tổng tham mưu Quân lực Đức và muốn thâu tóm hoạt động này của cục vào lực lượng SS, nên không ngừng theo đuổi mục đích này.

Vào mùa thu 1942, một doanh nhân ở München bị bắt vì đã mang lậu ngoại tệ vượt biên giới qua Thụy Sĩ. Ông này thật ra là một nhân viên Quân báo, nhưng khoản tiền ông mang là cho một nhóm người Do Thái tỵ nạn ở Thụy Sĩ. Đây là một trọng tội ở Đế chế thứ Ba cho dù can phạm là nhân viên Quân báo. Khi Đô đốc Wilhelm Franz Canaris, Giám đốc Canaris không thể che chở cho ông, ông khai với Gestapo những gì mình biết trong nội tình Quân báo. Ông tố giác Hans von Dohnanyi, người cùng với Đại tá Hans Oster (phụ tá chính cho Đô đốc Canaris) tham gia nhóm âm mưu. Ông kể về hoạt động của TS. Josef Mueller ở Vatican vào năm 1940 khi tiếp xúc với phía Anh thông qua Giáo hoàng. Ông tiết lộ Mục sư Dietrich Bonhoeffer đã dùng hộ chiếu giả do Quân báo cấp để đi đến Stockholm tiếp xúc với Giám mục địa phận Chichester của Anh. Ông cho vài chi tiết về những âm mưu của Oster nhằm loại trừ Hitler.

Sau những tháng điều tra, Gestapo ra tay. Dohnanyi, Mueller và Bonhoeffer bị bắt ngày 5/4/1943. Oster đã cố tiêu hủy những tài liệu có liên quan trước khi bị buộc phải từ chức và bị quản thúc tại gia ở Leipzig. Bonhoeffer, Dohnanyi và Oster bị SS hành quyết ngày 9/4/1945, không đầy một tháng trước khi Đức đầu hàng. Riêng Mueller là thoát chết.

Việc bắt giữ những nhân vật quan trọng là đòn nặng cho nhóm âm mưu chống Hitler. Oster đã là một trong những nhân vật chủ chốt từ năm 1938, còn Dohnanyi là người trợ lý đắc lực. Bonhoeffer theo Tin lành và Mueller theo Công giáo không những đã mang đến sức mạnh tâm linh cho phong trào mà còn nêu gương dũng cảm khi thực hiện những chuyến đi ra nước ngoài cũng như khi bị tra tấn mà không chịu cung khai ra đồng chí.

Nhưng nghiêm trọng nhất là với những người trong Quân báo bị lộ, nhóm âm mưu đã mất "lớp vỏ bọc" cùng phương tiện thông tin với nhau, với những tướng lĩnh lưỡng lự, với những bạn hữu ở phương Tây.

Trong vài tháng kế, nhân viên của Himmler còn phát hiện thêm nhiều tình tiết khiến cho Quân báo và Giám đốc Canaris bị đình chỉ hoạt động hẳn.

Một sự phát hiện là từ buổi tiệc trà của bà Solf diễn ra ngày 10/9/1943. Bà Anna Solf là quả phụ của cựu Bộ trưởng Thuộc địa trong triều đình Hoàng đế Wilhelm II, từ lâu đã cầm đầu một nhóm chống Quốc xã ở Berlin. Trong số khách đến dự bữa tiệc trà do bà tổ chức có một số nhân viên nổi danh, kể cả Nữ Bá tước Hanna von Bredow, cháu của Bismarck; Bá tước Albrecht von Bernstorff, cháu của đại sứ Đức tại Mỹ trong Thế chiến I; Mục sư dòng Tên nổi danh Erxleben; Otto Kiep, nhân viên cao cấp Bộ Ngoại giao, cựu tổng lãnh sự Đức tại New York; và Elisabeth von Thadden, hiệu trưởng một trường nữ có tiếng tăm.

Bà von Thadden đã dẫn đến bữa tiệc trà một bác sĩ trẻ người Thụy Sĩ tên Reckse, dễ gây cảm tình, đang hành nghề tại Bệnh viện Charité ở Berlin. Giống như phần đông người Thụy Sĩ khác, Bs. Reckse bày tỏ tư tưởng chống Quốc xã, và nhiều người trong bữa tiệc trà hưởng ứng. Trước khi buổi tiệc trà kết thúc, Reckse đã tỏ ý tình nguyện mang bất kỳ thư nào mà bà Solf hoặc khách mời muốn gửi cho bạn bè của họ ở Thụy Sĩ – di dân Đức chống Quốc xã và nhân viên ngoại giao Anh-Mỹ. Một số người chấp nhận sự giúp đỡ này.

Không may cho họ, Bs. Reckse là nhân viên của Gestapo, nên ông này trao lại các bức thư nhờ chuyển cùng một báo cáo về bữa tiệc trà cho Gestapo.

Bá tước von Moltke biết được tin này qua một người bạn ở Bộ Hàng không đã ghi âm một số cuộc gọi điện thoại giữa Reckse và Gestapo. Moltke vội thông báo cho Kiep, và Kiep báo lại cho cả nhóm của Solf. Nhưng Himmler đã nắm được bằng cớ. Ông chờ trong 4 tháng rồi mới ra tay, có lẽ vì muốn truy ra thêm những người khác. Ngày 12/9, tất cả những người hiện diện trong bữa tiệc trà bị bắt, xét xử rồi chịu tử hình, ngoại trừ bà Solf và con gái Ballestrem. Hai người bị đưa vào trại tập trung và thoát cái chết một cách kỳ lạ. Có vẻ như Himmler truy ra được những người khác: khoảng 70 người bị bắt vì hành động của Reckse.

Bá tước von Moltke bị bắt do dính dáng đến Kiep. Nhưng đấy không chỉ là hệ lụy duy nhất từ Kiep. Vụ việc còn lan xa và cuối cùng khiến cho Cục Quân báo bị xóa sổ, và Himmler đoạt lấy chức năng tình báo quân đội.

Trong số những người bạn thân chống Quốc xã của Kiep có Erich Vermehren và người vợ xinh đẹp, nguyên là Nữ Bá tước Elisabeth von Plettenberg. Cũng như nhiều người khác chống lại chế độ, cả hai gia nhập Quân báo và được cử đi Istanbul. Gestapo gọi họ về Berlin để điều tra trường hợp của Kiep. Biết trước số phận sẽ ra sao, cả hai từ chối trở về, liên lạc với tình báo Anh và được đưa đến Anh.

Đức nghi ngờ hai vợ chồng bị bắt cóc với mọi mật mã của Quân báo rồi trao mật mã cho phía Anh – nhưng sau này thấy không đúng. Hitler không thể chịu được nữa, và càng thêm nghi kỵ Canaris. Ngày 18/2/1944, ông ra lệnh giải tán Cục Quân báo và giao cho cơ quan RSHA đảm nhiệm công tác tình báo. Đây là thắng lợi lớn cho Himmler, vốn từ lâu đã hiềm khích với Quân đội đặc biệt là vụ cáo giác Tướng von Frisch năm 1938. Đây cũng là sự mất mát thông tin tình báo cho Quân đội, củng cố thanh thế của Himmler đối với các tướng lĩnh.